
為讓AI在企業內做出可靠的自主決策,技術專家指出AI需從單純的「相關性」轉向深入的「情境」理解,透過「情境化」技術將企業專屬資訊整合至模型中,以提升決策精準度並減少「幻覺」產生,但此過程仍面臨幻覺風險及惡意利用等挑戰。
隨著人工智慧(AI)從提升生產力逐步邁向企業內的自主決策,其能否可靠地做出判斷,關鍵在於對「情境」(Context)的理解,而非僅是表面的「相關性」(Relevance)。若缺乏對特定情境的深入掌握,AI如同盲人,將無法有效運作,進而影響決策品質。這項將AI與特定背景資訊整合的過程,在技術上稱為「情境化」(Contextualization)。
《Communications of the ACM》指出,大型語言模型(LLM)主要透過公共資料進行訓練,這限制了它們在特定產業和企業環境中的應用成效。Dawiso 的企業資料架構師 Martin Nevický 強調:「沒有情境,AI就是盲的。」他解釋,模型大多基於其訓練的全球資料來預測下一個 Token(指詞彙、字元或次詞元等最小處理單元),但若能提供企業專屬的正確資訊,AI的回答將更為精準且有根據,將原本的「猜測」轉化為近乎「事實」的判斷。這意味著更高的可靠性、更少的「幻覺」(指AI產生看似合理但實際上錯誤或虛構的資訊),以及對模型決策的更高信任度。
Forrester 首席分析師 Bernhard Schaffrik 表示,企業全面導入AI的主要障礙在於內部各自為政的資料孤島,以及需要將AI深度整合到營運模式中。要克服這些挑戰,AI需要透徹了解企業的實際運作方式。處理程序智慧(Process Intelligence)數據能提供這種洞察,當與生成式AI結合時,即可為AI提供必要的營運情境,使其產生可靠、相關且與營運模式一致的結果。
Celonis 企業AI首席科學家 Devavrat Shah 指出,AI模型雖然可能理論上了解發票或供應鏈運作方式,卻不清楚特定企業獨有的審批規則、營運依賴關係,或哪些例外情況合理、哪些不合理。若AI缺乏這種營運理解,將只能依賴通用模式進行「有根據的猜測」,這對企業而言代價高昂。他強調:「AI缺乏的並非更多智慧,而是情境。」當AI能實時理解企業運作時,便能正確推論、可靠執行,並獲企業信任以支援及自動化角色,而非僅僅提供建議。
然而,「情境化」的應用並非易事,它受制於不同情境、語言、文化和地區等多重因素。即便如此,具備情境層的LLM仍無法完全避免幻覺的產生,因為這些模型的設計基於相似性搜索而非確定性邏輯,無法確保結果完全可重複。此外,情境本身也可能被惡意利用,例如透過「情境炸彈」(Context Bombing)技術進行網路攻擊。Martin Nevický提醒,即使有情境層,模型也非預設安全,且若客戶端的AI聊天機器人資料映射不當,敏感資訊可能意外洩露,導致法規、聲譽與法律問題。
鑑於監管、資金與客戶信任面臨風險,以循序漸進的方式應用情境成為正確之舉。透過確保資料妥善記錄、持續驗證情境的有效性,並避免讓AI在未經檢查的原始資料上運作,企業才能讓AI擺脫猜測,真正根據業務的實際情況進行推論。
